Token-Flow Firewall: Semantic Runtime Auditing for Persistent AI Agents
Token-Flow 防火墙：持久化 AI Agent 的语义运行时审计
🧭 Agent 运行时安全审计 · Token 流防火墙
State Key Laboratory of AI Safety · Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences
针对持久化 AI Agent，通过 token 流语义防火墙实现全覆盖预执行审计，将攻击成功率压至 12.5%
📌 工作参考价值（4 点）
- 在构建持久化推荐 / 客服 Agent 时，可对记忆更新、工具参数、检索文件等自然语言 token 流嵌入边界感知审计节点，阻止不安全指令传播到执行器。
- 采用 轻量级本地检查 + 分级仲裁 架构：绝大多数 benign 请求用本地规则快速放行（仅 0.69s 延迟），仅对模糊高风险案例才调用远端大模型裁决，实现安全与效率平衡。
- 借鉴 source‑sink 审计记录的设计，为 Agent 数据流（尤其是来自外部工具的返回值）建立可追溯的语义日志，便于事后分析攻击路径。
- 当系统中 Agent 可调用敏感 API（如商品上下架、价格修改）时，可利用类似机制在工具调用前进行语义拦截，避免 prompt 注入导致的误操作。